Các khí cầu cổ xưa được chế tạo từ bàng quang của động vật. Các khí cầu khí nóng được dùng làm đồ chơi trẻ em tại Trung Hoa từ khoảng thế kỷ 2 hoặc thế kỷ 3.

Có nhiều giả thuyết cho rằng các nền văn minh cổ đã dùng khí cầu khí nóng để chở người bay lên không trung. Ví dụ như công trình cổ đường Nazca chỉ có thể quan sát đầy đủ từ không trung, phải được xây dựng với sự hỗ trợ của một con mắt từ trên cao, chỉ có thể khả thi với khí cầu. Julian Nott đã chế tạo lại được một khí cầu như vậy với các nguyên vật liệu của thời kỳ này. Nott đã bay qua cánh đồng Nazca trên khí cầu do ông chế tạo, sử dụng củi để đun nóng khí.

Ngày 5 tháng 8 năm 1709, tại Lisbon, Bartolomeu de Gusmão đã tạo ra một khí cầu khí nóng bay lên trong một phòng lớn. Ông đã chế tạo một khí cầu khác mang tên Passarola (tiếng Bồ Đào Nha nghĩa là chim lớn) và bay thử từ lâu đài Saint George, ở Lisbon, nhưng chỉ bay xa được một kilômét rồi bị rơi, nhưng ông không bị thương.

Henry Cavendish năm 1766 đã tạo ra khí cầu bơm khinh khí (hiđrô). Sau đó Joseph Black chứng minh khí cầu này có thể dùng để bay trong không trung được.

Quả khí cầu sử dụng không khí nóng đầu tiên chuyên chở hành khách được xây dựng bởi các anh em Josef và Etienne Montgolfier ở Annonay, Pháp năm 1783: chuyến bay chở khách đầu tiên là ngày 19 tháng 9 năm 1783, mang theo một con cừu, một con vịt và một con gà trống.

Cùng năm đó Jacques Charles tạo ra khí cầu bơm các chất khí nhẹ, một loại khí cầu sau đó trở nên thông dụng từ thập niên 1790 đến thập niên 1960.

Khinh khí (hiđrô), là một chất khí nhẹ hơn không khí, và phản ánh trong tên gọi của nó. Chất khí này cũng mang lại tên gọi khinh khí cầu. Khinh khí rất dễ chế tạo, từ việc điện phân nước, tuy nhiên nó có thể cháy nổ khi tiếp xúc với không khí ở nhiệt độ cao. Khinh khí đã gây một tai nạn thảm khốc với một khí cầu du lịch vào đầu thế kỷ 20; nó gây hỏa hoạn và giết chết toàn bộ phi hành đoàn khi họ đang trong không trung. Sau tai nạn đó, người ta không dùng khinh khí cho khí cầu lớn nữa và khinh khí chỉ còn được bơm cho một số bóng bay nhỏ. Những khí cầu bơm khí nay thường chỉ còn dùng hêli, một khí trơ và an toàn.

Năm 1852, Henri Giffard đã chế tạo khí cầu có thể lái được, sử dụng động cơ hơi nước.

Ed Yost đã sáng tạo lại khí cầu khí nóng vào thập niên 1950, sử dụng nylông làm vỏ và buồng đốt prôpan. Chuyến bay bằng khí cầu loại này của ông vào năm 1960 đã khởi đầu môn thể thao khí cầu hiện đại.

Zeppelin đã từng là những khí cầu khung cứng thành công nhất.